Sejarah pasukan khas ini bermula dengan penggunaan peperangan bukan konvensional melalui helah Trojan Horse atau Kuda Trojan oleh tentera negara Yunani suatu ketika dahulu keatas tentera Troy. Kemunculan pasukan khas termoden mula digunakan secara meluas oleh negara-negara Berikat dan juga Paksi semasa Perang Dunia Kedua. Tentera Nazi Jerman pimpinan Adolf Hitler dipercayai mempunyai pasukan khasnya yang dikenali sebagai Brandenburgers yang diletakkan dibawah seliaan unit perisikan khas infantri bagi menjalankan operasi sabotaj di Poland pada tahun 1939 yang menjadi permulaan kepada Perang Dunia Kedua dan menjadi faktor kejayaan konsep Blitzkreg. Tentera Bersekutu khasnya Britain dan Amerika Syarikat juga mempunyai pasukan khas mereka tersendiri seperti Special Air Service British dan Underwater Demolition Team Amerika. Penggunaan pasukan khas semasa peperangan tersebut telah mendatangkan kematangan konsep penggunaan pasukan itu di dalam minda penganalisis ketenteraan. Para penganalisis menilai penggunaan anggota-anggota khas yang terlatih ini dalam menjalankan pelaksanaan setiap operasi yang dianggap sukar dan mustahil untuk dilaksanakan oleh pasukan penggempur biasa.

Selepas Perang Dunia Kedua berakhir, pasukan khas negara bersekutu mahupun kuasa paksi ini juga dikecilkan kerana terdapat bantahan dari para pemimipin tentera yang majoritinya dari ketenteraan konvensional. British SAS telah dibubarkan selain satu batalion simpanan iaitu 21st SAS. Kemunculan insurgensi komunisme serta faktor keganasan moden disekitar tahun 1950an hingga 60an telah mewujudkan semula pasukan elit yang mempunyai keupayaan menangani situasi berkenaan. Antaranya SAS telah menubuhkan Malayan Scout atau Peninjau Malaya bagi membantu Malaya menghancurkan kegiatan pengganas komunis semasa Darurat Pertama pada tahun 1950 serta menubuhkan Pasukan Polis Hutan atau Jungle Squad (kini Pasukan Gerakan Am) dan unit Senoi Praaq atau Orang Perang.